Trước thời điểm khởi lập chùa, trên đồi Hà Khê có ngôi chùa cũng mang tên Thiên Mỗ hoặc Thiên Mẫu, là một ngôi chùa của người Chăm1.

Truyền thuyết kể rằng, khi chúa Nguyễn Hoàng vào làm Trấn thủ xứ Thuận Hóa kiêm trấn thủ Quảng Nam, ông đã đích thân đi xem xét địa thế ở đây nhằm chuẩn bị cho mưu đồ mở mang cơ nghiệp, xây dựng giang sơn cho dòng họ Nguyễn sau này. Trong một lần rong ruổi vó ngựa dọc bờ sông Hương ngược lên đầu nguồn, ông bắt gặp một ngọn đồi nhỏ nhô lên bên dòng nước trong xanh uốn khúc, thế đất như hình một con rồng đang quay đầu nhìn lại, ngọn đồi này có tên là đồi Hà Khê.

Người dân địa phương cho biết, nơi đây ban đêm thường có một bà lão mặc áo đỏ quần lục xuất hiện trên đồi, nói với mọi người: "Rồi đây sẽ có một vị chân chúa đến lập chùa để tụ linh khí, làm bền long mạch, cho nước Nam hùng mạnh". Vì thế, nơi đây còn được gọi là Thiên Mụ Sơn 2.

Tư tưởng lớn của chúa Nguyễn Hoàng dường như cùng bắt nhịp được với ý nguyện của dân chúng. Nguyễn Hoàng cả mừng, vào năm 1601 đã cho dựng một ngôi chùa trên đồi, ngoảnh mặt ra sông Hương, đặt tên là "Thiên Mụ".